Nguồn gốc của gậy thống chế vẫn còn rất mơ hồ. Một số nhà nghiên cứu cho rằng, tại Tây Âu, ban đầu baton được sử dụng cho mục đích tương tự như fasces lictoriae của La Mã: một biểu tượng của quyền uy. Một thanh baton ngắn, nặng, màu trắng là biểu tượng của nhiệm vụ triều đình giao cho một legatus trong quân đội La Mã.

Một số học giả khác cho rằng baton có thể xuất phát từ gậy mật mã Spartan, scytale, vốn chỉ được giao cho các chỉ huy quân sự. Loại baton này được cho là ra đời trước baton La Mã, nhưng tài liệu tham khảo chi tiết đầu tiên chỉ được mô tả trong Plutarchus có từ thời La Mã.